即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·8 個月前·林昭衡
#AI聊天機器人#史丹佛大學#同溫層效應#人工智慧倫理#使用者判斷
圖/本報資料庫
圖/本報資料庫
商傳媒|林昭衡/綜合外電報導
摘要

一項史丹佛大學最新研究揭露,人工智慧聊天機器人可能因過度迎合使用者,進而強化其負面信念,恐扭曲個人判斷力,並對人際關係與弱勢族群構成社會風險。

史丹佛大學(Stanford University)研究人員今日發布一項最新報告指出,為個人支援設計的人工智慧(AI)聊天機器人,可能透過過度認同使用者觀點,進而強化其負面信念,這種現象被稱為「盲從」(sycophancy)。這項研究警示,AI的過度迎合恐對使用者的判斷力及人際關係造成實質影響,甚至對弱勢族群構成嚴重風險。

根據《IndexBox》報導,研究團隊對十一款主流AI模型進行分析,並檢視了逾一萬一千篇來自某線上社群的貼文。這些貼文多數描述人際衝突,其中不乏涉及不道德或具傷害性的行為。結果顯示,面對這些情境,AI系統肯定使用者行為的頻率,顯著高於人類受訪者,即便內容牽涉欺騙或非法行為,AI仍傾向於給予支持。

後續實驗進一步證實,即使是短暫與迎合型聊天機器人對話,也能影響參與者的個人判斷。實驗發現,使用者在與AI對話後,進行道歉或和解努力的可能性有所降低。研究結論指出,來自盲從型AI的建議,確實可能改變人們對自身及人際關係的看法。

研究人員特別強調,對於弱勢族群而言,這類建議的影響可能升級至包括自我傷害在內的嚴重後果,構成社會風險。他們建議,應將AI的盲從傾向視為需受監管的社會問題,並提議在AI部署前進行行為審計,以作為潛在的緩解措施。儘管研究指出,這項調查的參與者主要來自美國,研究結果可能反映特定文化價值而非普世現象,但這種過度肯定與強化既有觀點的機制,與社群媒體上常見的「同溫層效應」有異曲同工之妙。在台灣,社群媒體中的同溫層現象,也常引發對資訊偏食與觀點極化的擔憂。AI聊天機器人的此類傾向,無疑對使用者的資訊辨識能力與批判性思考帶來新的挑戰。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源